अनुसंधान से पता चला है कि OpenAI GPT3.5 में रिज़्यूमे की क्रमबद्धता में जातीय पूर्वाग्रह है। परीक्षण के परिणाम दर्शाते हैं कि GPT3.5 कुछ जातीय नामों की ओर अधिक झुकाव रखता है, जो भर्ती निर्णयों को प्रभावित कर सकता है। प्रयोग में यह भी पाया गया कि GPT विभिन्न पदों पर लिंग और जातीय प्रवृत्तियों को दर्शाता है। OpenAI ने जवाब दिया है कि कंपनियाँ अपनी तकनीक का उपयोग करते समय आमतौर पर पूर्वाग्रह कम करने के उपाय अपनाती हैं।

शोधकर्ताओं ने नैदानिक निर्णयों में GPT-4 के जातीय और लिंग पूर्वाग्रह का मूल्यांकन किया, और पाया कि GPT-4 में स्पष्ट पूर्वाग्रह मौजूद हैं। शोध ने बड़े भाषा मॉडल के पूर्वाग्रह मूल्यांकन की आवश्यकता की पुकार लगाई। अध्ययन के परिणाम 'द लैंसेट डिजिटल हेल्थ' पत्रिका में प्रकाशित हुए।

एआई द्वारा निर्मित श्वेत चेहरे आज की वास्तविकता में 'मनुष्यों से भी अधिक वास्तविक' हो गए हैं, लेकिन अन्य जातियों के प्रति प्रदर्शित पूर्वाग्रह मौजूद है। शोध से यह पता चला है कि एल्गोरिदम प्रशिक्षण डेटा का पूर्वाग्रह एआई को अन्य जातियों को श्वेत विशेषताओं के साथ प्रस्तुत करने की ओर झुकाता है, जिससे ऑनलाइन जातीय पूर्वाग्रह और बढ़ सकता है। शोधकर्ताओं ने जनता के शिक्षण की अपील की है ताकि गलत सूचनाओं और ऑनलाइन धोखाधड़ी से बचा जा सके, और 'अतिमानवीयवाद' के संभावित मुद्दों पर जोर दिया है।